미국의 인기 온라인 심리치료 플랫폼 '헤드웨이(Headway)'가 환자와 의료진을 대상으로 신원 확인용 안면 인식 스캔을 의무화하여 논란이 일고 있습니다. 생체 정보 제공을 거부할 경우 플랫폼 이용이 불가능해져 사실상 강제적인 선택이며, 이는 환자의 치료 연속성을 위협하는 심각한 개인정보 침해 우려를 낳고 있습니다.
인기 AI 챗봇 앱 Character.AI가 최근 도입한 새로운 AI 모델(Pipsqueak 2)과 과도한 광고, 사용 제한 등으로 인해 사용자들의 거센 반발에 직면했습니다. 사용자들은 새 모델을 두고 '뇌절개수술을 한 것 같다'며 성능 저하를 강력히 비판하고 있으며, 이는 수익성 악화와 규제 강화 속에서 AI 산업 전반에 나타나고 있는 서비스 질 저하(Enshittification)의 전형적인 사례로 평가됩니다.
실시간 딥페이크 앱 'Delulu'를 악용해 한 스트리머가 유명 인플루언서로 위장해 성희롱 및 혐오 발언을 해 큰 논란이 일었습니다. 이 사건은 저비용 고효율의 실시간 AI 변장 기술이 악용될 경우 심각한 명예훼손과 딥페이크 범죄로 이어질 수 있음을 보여줍니다. 따라서 스트리밍 플랫폼 및 AI 개발사의 실시간 모델에 대한 적절한 사용 정책과 규제 마련이 시급한 과제로 떠올랐습니다.
애플이 AI 코드 생성 앱에 대해 앱 내에서 외부 코드를 실행하거나 기능을 변경할 수 없다는 기존 앱스토어 규정(2.5.2항)을 내세워 업데이트를 차단하고 있다. 검토 시점의 정적인 소프트웨어를 전제로 하는 기존 규정이, 런타임에 AI 모델을 통해 동적으로 변화하는 새로운 패러다임의 소프트웨어와 충돌하는 현상이다. 이는 단순한 애플의 규제 문제를 넘어, 현대의 모든 소프트웨어 배포 및 버전 관리 시스템이 '출시된 소프트웨어는 고정되어 있다'는 근본적인 전제 위에 세워져 있음을 보여준다.
메타는 인스타그램과 페이스북에서 AI 기반 이미지 분석을 통해 미성년자를 자동으로 식별하는 기능을 확대 도입합니다. 이 AI는 골격 구조와 체형, 생일 파티 게시물 등을 단서로 삼아 미성년자로 의심되는 계정을 안전한 '10대 전용 계정'으로 자동 전환합니다. 이는 플랫폼 내 미성년자 보호 의무와 규제 당국의 압박에 대응하기 위한 조치로, 향후 유럽연합(EU)과 브라질, 미국 페이스북 등에 순차적으로 적용됩니다.
기술 매체 404 Media의 에마뉴엘 마이버그는 오리건 대학교의 Whitney Phillips 교수와 함께 인터넷과 정치 지형이 악화되는 원인을 분석하는 팟캐스트 에피소드를 진행했습니다. 이번 대화에서는 플랫폼의 역학 관계와 인터넷 문화를 점검하고, 최근 미국의 종교와 매체, 정치를 뒤흄드는 반자유주의적 수사를 다룬 그녀의 다가오는 신간 'The Shadow Gospel'에 대해서도 심도 있게 논의했습니다.